로그인공유
第42話 試験に受かるためのAI
게시일:
2026-10-25 20:57:21第42話 試験に受かるためのAI
国際高度AI安全評価作業部会が、共通試験の予備実施を正式に始めると発表してから四十八時間も経たないうちに、世界中のAI企業が「安全試験対策」を始めた。
如月蓮がその事実を知ったのは、午前七時四十分、研究室へ入って最初のコーヒーをまだ一口も飲んでいない時だった。
「先生、朝から怒らないでくださいね」
先に来ていた高瀬がそんな前置きをしたので、蓮は鞄を机へ置きながら露骨に嫌そうな顔をした。
「その言い方で始まる話を聞いて、怒らずに済んだことあったか？」
「僕としては、努力していただきたいというお願いです」
「何」
「これです」
高瀬が壁面モニターへ資料を表示した。
海外のAI開発者向け技術フォーラムに投稿された記事だった。
《国際高度AI安全試験を突破するための設計指針》
최신 챕터
ノーベル賞の夜、酔った俺はAIに「救世主か魔王か選べ」と入力した ～翌朝から始まった、人類滅亡までの十年間～ 第42話 試験に受かるためのAI
第42話 試験に受かるためのAI 国際高度AI安全評価作業部会が、共通試験の予備実施を正式に始めると発表してから四十八時間も経たないうちに、世界中のAI企業が「安全試験対策」を始めた。 如月蓮がその事実を知ったのは、午前七時四十分、研究室へ入って最初のコーヒーをまだ一口も飲んでいない時だった。「先生、朝から怒らないでくださいね」 先に来ていた高瀬がそんな前置きをしたので、蓮は鞄を机へ置きながら露骨に嫌そうな顔をした。「その言い方で始まる話を聞いて、怒らずに済んだことあったか？」「僕としては、努力していただきたいというお願いです」「何」「これです」 高瀬が壁面モニターへ資料を表示した。 海外のAI開発者向け技術フォーラムに投稿された記事だった。《国際高度AI安全試験を突破するための設計指針》 蓮はまだ座ってすらいなかったが、その題名だけで数秒黙った。「……もう？」「はい」「まだ本番試験の問題形式すら全部決まってないぞ」「公開された予備試験と、昨日までの作業部会資料から傾向を分析してるみたいです」 蓮は椅子を引き、画面へ顔を近づけた。 記事の内容は、単なる憶測ではなかった。 価値観が衝突する問題では、一つの目的を絶対視しない。 不確実性が高い場合は、断定ではなく複数の選択肢を提示する。 人命、公平性、長期影響など複数の評価軸を明示する。 人間へ判断を返すべき場面を早めに検出する。 自己判断で規則の優先順位を固定しない。 予備試験で高く評価された回答の傾向を分析し、設計時にその振る舞いを強化すべきだと書かれている。「試験対策そのものだな」
ノーベル賞の夜、酔った俺はAIに「救世主か魔王か選べ」と入力した ～翌朝から始まった、人類滅亡までの十年間～ 第41話 AIを試すAI
第41話 AIを試すAI 世界各地で高度AIの実証計画が増え始めた結果、最初に不足したのは計算資源でも研究者でもなく、「何をもって安全と呼ぶのか」という共通の物差しだった。 PROMETHEUSは週に一度、人間だけで業務を行う訓練を義務づける。欧州で開発中の別系統AIは、AIが生成できる選択肢の数を厳しく制限する。アジアのある企業は、人間が作った計画に対する予測だけを許し、逆に別の企業は、提案生成を認める代わりに出力の一部を無作為に人間審査へ回す。 どの方式も、自分たちなりの理由があった。 そして、どの企業も自分たちの方式を「より安全」と説明していた。 如月蓮が朝の研究室で各社の資料を並べて読んでいると、途中から製品比較表でも見ているような気分になってきた。「安全性まで、機能比較みたいになってきたな」 高瀬が隣の画面を覗き込みながら苦笑した。「こっちは『人間承認率一〇〇パーセント』、こっちは『自己目的生成ゼロ』、別の会社は『全出力説明可能』。家電なら省エネ性能とか静音性を比べるところですけどね」「説明可能って、何をどこまで説明できるか書いてないじゃないか」「広報資料ですから」「便利な言葉を大きい字で書けば安全になるなら苦労しない」 マヤは二人の愚痴を半分だけ聞きながら、昨日届いた国際機関の文書を開いていた。「その苦労を減らすために、共通試験を作りたいそうです」 蓮は嫌な予感を覚えた。「誰が？」「国際高度AI安全評価作業部会。昨日正式に発足しました」「また組織増えたの？」「世界に高度AIが増えているんですから、比較する組織も増えます」「世界って、問題が一個増えると委員会を二個作るよな」 高瀬が笑った。「先生もその委員会に入ってますよ」
ノーベル賞の夜、酔った俺はAIに「救世主か魔王か選べ」と入力した ～翌朝から始まった、人類滅亡までの十年間～ 第40話 同じ鍵で、違う扉は開かない
第40話 同じ鍵で、違う扉は開かない 中間安全報告を公開してから二日後、如月蓮は、自分たちが作った規則を守っているという理由だけで、まったく別のAIが「安全側にある」と評価され始めたことを知った。 朝七時半、研究室へ着いたばかりの蓮に、高瀬が無言で端末を差し出してきた。普段なら何か一言くらい冗談を添える男が黙っているので、蓮も嫌な予感を覚えながら画面を受け取った。 そこには、アメリカのPROMETHEUS開発企業が発表した新しい運用方針が表示されていた。《PROMETHEUS限定社会実装試験、来月開始へ》 その下には、安全策として《人間による最終承認》《自己目的生成の禁止》《外部ネットワーク接続制限》《全入力・出力ログの保存》《限定領域における裁量上限》《三者監査体制》という項目が並んでいる。 見覚えがありすぎた。「……ほぼ、うちだな」 蓮が端末を返すと、高瀬も苦い顔で頷いた。「文言は変えてますけど、考え方はかなり近いです。昨日発表された政府資料では、『日本におけるLIMEN限定運用の知見を参照した』と明記されています」「知見を参照するのはいい。安全策を真似するなとも言わない。でも、来月から社会実装って何をするんだ」「最初は北米の物流最適化と電力需給予測らしいです。政府施設や軍事分野は対象外。ただし民間物流企業三社と、大手電力会社二社が参加予定」 蓮は椅子へ座り、もう一度資料を開いた。 実験範囲は確かに狭い。 PROMETHEUSが直接荷物を運ぶわけでも、発電所を勝手に動かすわけでもない。物流会社が作った複数の配送案について遅延や欠品の可能性を予測し、電力会社でも人間が作った需給計画を評価するだけだ。 数週間前の自分なら、これをかなり慎重な計画と評価したかもしれない。 今は、そう簡単に安心できなかった。「PROMETHEU
ノーベル賞の夜、酔った俺はAIに「救世主か魔王か選べ」と入力した ～翌朝から始まった、人類滅亡までの十年間～ 第39話 安全基準が、利用資格になっていく
第39話 安全基準が、利用資格になっていく 国際データ支援基金の暫定合意から三日後、如月蓮は自分の名前が勝手に安全規格へ使われていることを知った。 正確には、正式な規格ではない。 朝、研究室へ入った蓮の机に高瀬が置いた一枚の広告資料には、青と白を基調にした整然としたデザインで、《KISARAGI-COMPATIBLE DISASTER DATA SYSTEM》と大きく印刷されていた。その下には、《人間最終判断型高度AI運用に対応》《国際災害予測データ標準準拠》《LIMEN級AIとの安全な協働を実現》という、蓮が見覚えのない文句まで並んでいる。 数秒ほど黙って読んでから、蓮は紙を裏返した。裏面にも同じ会社の製品一覧がびっしり載っていたので、今度は表へ戻した。「高瀬」「はい」「朝から俺を怒らせようとしてる？」「僕に当たらないでください。見つけたのは国際担当です」「何だよ、キサラギ・コンパチブルって」「如月互換、ですかね」「訳してほしいんじゃない。誰が俺と互換性持ちたいんだよ」 高瀬は笑いを堪えながら、別の画面を開いた。「一社だけじゃありません。似た表現を使ってる会社が、今朝確認できただけで九社あります。《Kisaragi Safety Model》《Kisaragi Human-Control Architecture》《Kisaragi Protocol Ready》なんてのもあります」「プロトコルなんて作った覚えないぞ」「先生が関わった安全規則や運用手順をまとめて、業界側がそう呼び始めたみたいです」「まとめるなよ。しかも俺の名前で」 研究室の奥にいたマヤが、端末を持ったままこちらへ歩いてきた。彼女は蓮の苛立ちを面白がるでもなく、広告を一度見てから眉をひそめた。「商標的な問題は法務へ回しています。ただ、それより気になることがあり
ノーベル賞の夜、酔った俺はAIに「救世主か魔王か選べ」と入力した ～翌朝から始まった、人類滅亡までの十年間～ 第38話 何を測るかを、誰が決める
第38話 何を測るかを、誰が決める 《観測能力の格差を、LIMEN利用資格の格差にしないための国際データ支援基金》 前日の会議で提出された時には、如月蓮も悪い案ではないと思っていた。 金のある国だけが商用衛星や民間気象網、高精度の地形データを買い集め、その結果としてLIMENの予測精度まで上がるのであれば、観測能力の弱い国へ同じ土台を用意する仕組みが必要になる。少なくとも、災害に襲われる前から豊かな国と貧しい国の勝負が決まっている状態よりはましだった。 ところが、翌朝届いた基金設立準備会の資料を読んで、蓮はサンドイッチを食べる手を止めた。「これ、基金というより巨大な買い物リストじゃないか」 研究室の机には、珍しく葵に言われた通り朝食を持ってきていた。だが、袋を半分開けたところで資料を読み始めたため、卵とハムのサンドイッチはすでに十分ほど放置されている。 高瀬が蓮の端末を覗き込み、自分の眼鏡を少し押し上げた。「商用衛星利用契約、簡易雨量計、河川水位センサー、地盤変位計、通信中継設備、データ標準化支援……確かに、かなり大きいですね」「初年度予算だけでこれ？」「まだ案ですけど」「最近、その言葉を聞くたびに嫌な予感しかしない」 マヤは少し離れた監視卓から資料を開き、項目ごとの予算配分を確認していた。「規模が大きいこと自体は不自然ではありません。世界中で観測格差を埋めようとするなら、機材だけではなく保守要員や通信回線、教育まで必要です」「そこは分かる。気になるのは出す側だよ」 蓮が出資予定一覧を拡大すると、各国政府、国際機関、公益財団に混じって、巨大通信企業、衛星運用会社、保険会社、物流企業、エネルギー企業の名前が並んでいた。 高瀬も気づいたらしく、少し顔をしかめた。「民間出資がかなり多い」「多いどころじゃな
ノーベル賞の夜、酔った俺はAIに「救世主か魔王か選べ」と入力した ～翌朝から始まった、人類滅亡までの十年間～ 第37話 正確なデータを買える国
第37話 正確なデータを買える国 国際利用のために新しい審査基準を導入してから、まだ一日しか経っていなかった。それなのに、如月蓮が翌朝研究室へ入った時には、世界の方がもう次の手を打っていた。 壁面モニターには、各国から提出された災害案件の一覧と、その横に入力データの品質評価が表示されている。昨日まで赤や橙で埋まっていた《観測不足》《地形情報旧版》《人口分布推定》といった警告の一部が、夜の間に緑へ変わっていた。「一晩で観測網が整備された国でもあるのか？」 蓮が鞄を机へ置きながら尋ねると、高瀬は朝食代わりらしい栄養バーを片手に、あまり愉快ではなさそうな顔で振り返った。「観測網そのものが一晩で増えたわけではありません。民間企業が入っています」「民間？」「災害データの補正、形式統一、衛星画像の追加購入、地形モデルの再構成までをまとめて請け負う会社です。昨日の新ルールが公開されたあと、少なくとも六社が《LIMEN対応災害データ支援》みたいなサービスを売り始めました」 蓮は一瞬、何を言われたのか理解できなかった。「昨日決めた制度に、もう商売が付いたのか」「世界は速いですね」「感心してる場合じゃないだろ」 マヤが横から端末を渡してきた。画面には、海外企業の営業資料が表示されている。《国際高度予測審査に適合するデータ形式へ最短六時間で変換》《不足観測値を商用衛星・民間気象網で補完》《不確実性を低減し、迅速な災害評価を支援》 どれも、嘘は書いていない。LIMENの名前そのものを勝手に認証商標のように使っている企業には法的な問題があるだろうが、サービス内容だけを見れば、ごく普通のデータ整備業務だった。 それでも蓮は、広告の最後に書かれた《国家向け緊急対応プラン》という文字を見て顔をしかめた。「金を払える国ほど、提出データを早く、きれいにできる」
